TH1: \(m=3\Rightarrow f\left(x\right)=-5< 0\) với mọi x(ktm)

TH2: \(m>3\Rightarrow f\left(x\right)\) đồng biến trên R

\(\Rightarrow\min\limits_{\left[3;4\right]}f\left(x\right)=f\left(3\right)=3\left(m-3\right)-2m+1=m-8\)

\(m-8>0\Rightarrow m>8\)

TH3: \(m< 3\Rightarrow f\left(x\right)\) nghịch biến trên R

\(\Rightarrow\min\limits_{\left[3;4\right]}=f\left(4\right)=4\left(m-3\right)-2m+1=2m-11\)

\(2m-11>0\Rightarrow m>\dfrac{11}{2}\) (ktm điều kiện \(m< 3\))

Kết hợp lại ta được \(m>8\)

đi từ hướng làm để ra được bài toán: 

Ta thấy muốn f(|x|) có 5 điểm cực trị thì f'(x) phải có 2 điểm cực trị dương

giải f'(x)=0 \(\left\{{}\begin{matrix}x=1\\x^2-2\left(m+1\right)x+m^2-1=0\left(2\right)\end{matrix}\right.\) phương trình (2) phải có 2 nghiệm phân biệt trái dấu nhau 

Ta có: \(\Delta>0\Leftrightarrow m>-1\)

Theo yêu cầu bài toán: \(m^2-1>0\Leftrightarrow\left[{}\begin{matrix}m< -1\\m>1\end{matrix}\right.\) 

Ta có \(f\left(x\right)>0,\forall x\in\left(0;1\right)\)

\(\Leftrightarrow-x^2-2\left(m-1\right)x+2m-1>0,\forall x\left(0;1\right)\)

\(\Leftrightarrow-2m\left(x-1\right)>x^2-2x+1,\forall x\in\left(0;1\right)\) (*)

Vì \(x\in\left(0;1\right)\Rightarrow x-1< 0\) nên (*) \(\Leftrightarrow-2m< \dfrac{x^2-2x+1}{x-1}=x-1=g\left(x\right),\forall x\in\left(0;1\right)\)

\(\Leftrightarrow-2m\le g\left(0\right)=-1\Leftrightarrow m\ge\dfrac{1}{2}\)

\(y'=x^2-2x+m\)

\(y'\ge0\) ; \(\forall x\in\left(1;3\right)\Leftrightarrow x^2-2x+m\ge0\) ;\(\forall x\in\left(1;3\right)\)

\(\Leftrightarrow m\ge\max\limits_{\left(1;3\right)}\left(-x^2+2x\right)\)

Xét hàm \(f\left(x\right)=-x^2+2x\) trên \(\left(1;3\right)\)

\(-\dfrac{b}{2a}=1\) ; \(f\left(1\right)=1\) ; \(f\left(3\right)=-3\)

\(\Rightarrow m\ge1\)

\(f\left(x\right)=x^2-2\left(m-1\right)x+m-2\)

Yêu cầu bài toán thõa mãn khi \(f\left(x\right)=0\) có hai nghiệm thỏa mãn \(x_1\le1< 3\le x_2\)

\(\left\{{}\begin{matrix}\Delta'=m^2-3m+3\ge0\\f\left(1\right)\le0\\f\left(3\right)\le0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m\in R\\-m+1\le0\\15-5m\le0\end{matrix}\right.\)

\(\Leftrightarrow m\ge3\)

Ta có : \(y'=4x^3-4\left(m-1\right)x\)

           \(y'=0\Leftrightarrow4x^3-4\left(m-1\right)x=0\Leftrightarrow x\left[x^2-\left(m-1\right)\right]=0\)

Trường hợp 1 : nếu \(m-1\le0\Leftrightarrow m\le1\), hàm số đồng biến trên khoảng \(\left(0;+\infty\right)\), vậy \(m\le1\) thỏa mãn yêu cầu bài toán

Trường hợp 2 : nếu \(m-1>0\Leftrightarrow m>1\), hàm số đồng biến trên khoảng \(\left(-\sqrt{m-1};0\right)\) và \(\left(\sqrt{m-1};+\infty\right)\)

Để hàm số đồng biến trên khoảng (1;3) thì \(\left(\sqrt{m-1}\le1\Leftrightarrow m\le2\right)\)

Vậy hàm số đồng biến trên khoảng (1;3) \(\Leftrightarrow m\in\left(-\infty;2\right)\)

\(h\left(x\right)=f\left(x^2+1\right)-m\Rightarrow h'\left(x\right)=2x.f'\left(x^2+1\right)\)

\(h'\left(x\right)=0\Rightarrow\left[{}\begin{matrix}x=0\\f'\left(x^2+1\right)=0\end{matrix}\right.\) \(\Rightarrow\left[{}\begin{matrix}x=0\\x^2+1=2\\x^2+1=5\end{matrix}\right.\) \(\Rightarrow x=\left\{-2;-1;0;1;2\right\}\)

Hàm có nhiều cực trị nhất khi \(h\left(x\right)=m\) có nhiều nghiệm nhất

\(f\left(x\right)=\int f\left(x\right)dx=\dfrac{1}{4}x^4-\dfrac{5}{3}x^3-2x^2+20x+C\)

\(f\left(1\right)=0\Rightarrow C=-\dfrac{199}{12}\Rightarrow f\left(x\right)=-\dfrac{1}{4}x^4-\dfrac{5}{3}x^3-2x^2+20x-\dfrac{199}{12}\)

\(x=\pm2\Rightarrow x^2+1=5\Rightarrow f\left(5\right)\approx-18,6\)

\(x=\pm1\Rightarrow x^2+1=2\Rightarrow f\left(2\right)\approx6,1\)

\(x=0\Rightarrow x^2+1=1\Rightarrow f\left(1\right)=0\)

Từ đó ta phác thảo BBT của \(f\left(x^2+1\right)\) có dạng:

Từ đó ta dễ dàng thấy được pt \(f\left(x^2+1\right)=m\) có nhiều nghiệm nhất khi \(0< m< 6,1\)

\(\Rightarrow\) Có 6 giá trị nguyên của m